今天進入生成式 AI 職缺中出現頻率最高的主題:RAG(48.1%)。 因為它太重要,我用三天處理:今天講索引端(文件怎麼進去)、明天講檢索端(怎麼找出來)、後...
把 Notebook 的流程搬到 Web 後,功能越來越多。我開始不只看畫面能不能跑,而是回頭比對產出的結果:改了 A,為修改的 B 的輸出還一樣嗎? Da...
Day 01 我提到,DAP 的第二代不是從 Agent 或複雜流程開始,而是先用 Vibe Coding 把 Notebook 的人工作業搬到 Web。今...
2020 年我初次參加鐵人賽寫的是《用 LINE 串起多媒體系統》(GitHub),那 30 天在做的事,本質上是:接收使用者訊息 → 判斷意圖 → 呼叫對應的...
今天進入主軸二:生成式 AI。前八天我們在解決關於 MLOps 的「模型會不會掛」,接下來八天解決「模型會不會智商下線」。 主軸一的讀者會發現,這邊的問題同樣需...
前七天,我們一路處理模型如何可靠地上線、持續部署、監控,以及出問題時怎麼發現。今天換一個主管通常更有感的問題: 這套 AI 系統,到底花多少錢? 模型能活著還不...
Day 04 曾說過「不能省的三件事」:可重現、監控、評測。Day 08 提到「只能投資一項就選監控」。今天就講為什麼。 如果這 30 天你只讀一篇,建議這篇要...
昨天服務跑起來了。今天回答:它跑得好不好? 面試時很容易被問到的題目,包含「你的服務延遲多少」、「怎麼提升吞吐」及「P99 為什麼重要」?這三題答得好,入職的機...
今天進入 MLOps 職缺中出現頻率最高的領域:AI/ML 平臺與基礎設施(58.5%)。 本日不包含 Kubernetes 的全部——那是一本書的量,而且新入...
資料有版本(Day 09)、實驗有紀錄(Day 10),今天加上最重要會擋人的門,把它們串成一條自動跑也安心的管線。 這是 Level 0 到 Level 1...
昨天資料有了版本。今天處理另外兩根柱子:這次訓練用了什麼設定、跑出什麼結果、產出的模型在哪裡。 這是 Day 08 診斷表第 3、5 題的內容,也是導入成本最低...
昨天的成熟度診斷中,其中「訓練前自動檢查資料」與「重現三個月前的訓練」應是最多團隊答「否」的兩題。今天就處理這兩題。 Day 06 說過可重現需要五根柱子,今天...
2021 年那套成熟度模型,在 2026 年還適用嗎? 我的答案是:框架適用,內容要改寫。 本系列為 MLOps × GenAI Engineering 雙主軸...
今天只聚焦在 Token 怎麼計價、生成怎麼進行、模型怎麼選這三件事,會直接影響你系統設計與帳單,也可能導致容易做出錯誤架構決策的部分。 本篇不會重講 Tran...
ML 專案跟一般軟體專案,到底哪裡不一樣?,在開發環境的建立之後,今天要處理 ML 系統成敗的認知問題。 今天要解決的問題 先講一個 ML 系統經典的統計現象:...
「在我電腦上明明跑得起來啊。」 這句熟悉的對話日常,在 ML 系統會是場災難,因為 ML 多了兩個變數:資料與模型權重。第一部曲我們將 AI 職缺目前在市場...
站在哪裡往前走 三天下來我們確認了:市場要什麼(Day 02)、誰負責什麼(Day 03)。今天是第一部曲的收尾,也是我覺得最實用的一篇——把職缺梳理成您能照著...
站在哪裡往前走 昨天我們確認了就業市場的徵才概況。今天要處理一個很多人心裡的疑問:這些事,不是資料科學家、DevOps、後端本來就在做的嗎?為什麼要多兩個職務?...
昨天提到,這一系列文章是從真實需求出發,透過整理新興 AI 職缺,我觀察到目前市場上的 AI 人才需求,已逐漸分化成兩類不同的職務方向。今天,就想進一步和大家分...
2021 年,我在鐵人賽寫了《從 AI 落地談 MLOps》(GitHub)。那 30 天在回答一個問題:模型訓練好了,然後呢? 五年後,這個問題不但沒有過期,...
我有多年 IT 技術與跨域學習經驗,現在把 AI、Cloud、Infrastructure 串起來。 實做 AI Demo 的時候,我們通常會先問一個問題:「它...
TL;DR 這篇文章紀錄了解決軟體工程師常見的「中英夾雜」語音輸入痛點的過程。 專案架構從單純的 API 串接,演進為 「Code + Prompt + 條件式...